让 LLM 在会议中拥有情境意识并替参与者发言
🧭 LLM Agent 在多方对话中的发言时机决策
University of Göttingen, Germany
提出 CAPA 架构,通过显式会议状态预测与校准,将缺席者发言沉默率从 51.4% 降至 2.5%
📌 工作参考价值(4 点)
- 在需要 LLM 实时判断“是否介入”的场景(客服对话、直播场控、主动推荐弹窗)中,显式维护结构化状态(立场、覆盖、发言权)比只堆原始上下文更能消除漏判;可借鉴 Perceiver 将历史对话压缩成可更新的状态表示。
- 将决策链拆成 Predictor→Controller→Generator,先预测下一 turn,再决定是否说话、说什么、怎么说;这种解耦便于在业务中单独调优“时机判断”和“内容生成”,也便于归因定位残差。
- 用真实下一 turn 对预测和动作做在线校准,形成 Recalibrator 闭环;在推荐或对话 Agent 中可引入类似机制,让系统根据后续用户反馈实时修正决策状态,而非静态离线训练。
- 评估协议值得复用:围绕实际语义单元(idea units)从 whether/when/what 三维打分,并用 schema 约束的 LLM judge 自动评估,Kappa=0.71 说明可替代部分人工标注;对生成式推荐/对话策略的离线评估尤其有用。
WebRetriever:大规模全方位Web Agent高效评估基准
🧭 Agent 评估基准 · 多域导航
Mininglamp Technology · University of Chinese Academy of Sciences · Institute of Automation, Chinese Academy of Sciences
提出涵盖800网站1550任务的多域Web Agent基准与基于交互上下文的评估框架,揭示导航成功率不足以衡量真实效果
📌 工作参考价值(4 点)
- 评估 Agent 时不能只看导航成功率,参考文中三个协议:纯导航、知识辅助交互、端到端信息抽取,可分层诊断 Agent 在搜索/推荐场景中的真实能力。
- LLM-as-Judge 不应仅依赖页面截图,NavEval 强调记录并输入 query 构造、过滤/点击序列等交互上下文,能更准确评判 query 改写、筛选器使用等细粒度动作,可直接迁移至电商搜索 Agent 的自动评测。
- 构建多领域任务集(消费者、专业、企业站点)确保泛化测试,电商/广告推荐 Agent 可借鉴其意图覆盖方法,将用户需求细化为搜索、对比、属性过滤等原子任务。
- 基准提供 1,550 个真实任务,可作为强化学习或 Prompt 优化的 reward 信号源,工程上可利用其诊断结论针对性提升 Agent 在复杂信息提取中的鲁棒性。